The Bitter Lesson of Tool Calling
工具调用的苦涩教训：代码执行 vs JSON 调用大规模评估
🧭 Agent 工具调用范式评估 ★ 深度解读
PricewaterhouseCoopers, U.S.A
11/14 模型程序化工具调用匹敌或超越 JSON 调用，并行与长链场景下优势显著
📌 工作参考价值（4 点）
- Agent 工具接口设计：在电商搜索推荐 Agent 中，若需并行调用多个商品 API 或串行执行多步查询，可考虑用代码执行（如 Python 脚本）替代原生 JSON 工具调用，避免 JSON 在高并发时遗漏调用，并减少推理轮次。
- 多工具链式调用优化：对于需要多步顺序调用的推荐流程（如先查用户画像、再查商品、再查促销），程序化方式可在单次推理中完成整链，降低延迟，且长链场景下准确率优势可达 18.8%。
- 上下文干扰下的鲁棒性：当 Agent 需要从大量工具定义中选取正确 API 时（类似电商平台有数十个微服务），JSON 调用准确率下降，而程序化调用更稳定，实际部署时可避免因无关工具定义污染上下文导致的失败。
- 模型选型启示：程序化工具调用效果与模型代数相关，较新的模型（如 GPT-5.6、Claude Sonnet 5）能稳定发挥优势，旧模型可能出现编码问题（如换行符转义错误），选型时需针对性测试。